PolyU COMP5511
Các khái niệm Trí tuệ Nhân tạo
Mô hình hóa chuỗi và The Transformer
Mục tiêu học tập
- So sánh các kiến trúc: Phân biệt giữa RNN, LSTM và kiến trúc Transformer.
- Cơ chế Self-Attention: Giải thích bài báo 'Attention Is All You Need' và các cơ chế self-attention.
- Bộ mã hóa và bộ giải mã: Hiểu vai trò của bộ mã hóa và bộ giải mã trong các mô hình như BERT và GPT.